• 1975 anggota Angkatan Belia Islam Malaysia ABIM
• 1981 menyertai Parti Islam Se-Malayia PAS
• 1982 Pada PRU-6 bertanding di Dun Penanti,Pulau Pinang namun tewas
• 1986 Pada PRU-7 bertanding di Parlimen Permatang Pauh,Pulau Pinang namun tewas kepada Anwar Ibrahim
• 1990 Pada PRU-8 bertanding di parlimen Nilam Puri,Kelantan dan menang
• 1995 Pada PRU-9 bertanding di parlimen Kubang Kerian,Kelantan dan menang
• 1999 Pada PRU-10 bertanding di Kuala Kedah,Kedah dan menang
• 2008 Pada PRU-12 bertanding di parlimen Kuala Terengganu,Terengganu namun tewas
• 2015 Menubuhkan Gerakan Harapan Malaysia namun bertukar nama kepada Parti Amanah Negara dan menjadi presiden parti itu.
• 2016 Amanah,PKR dan DAP menubuhkan Pakatan Harapan kemudian PPBM sertai
• 2018 Pada PRU-14 bertanding di Kota Raja,Selangor dan diberikan jawatan eksekutif kerajaan iaitu Menteri Pertahanan Malaysia

Tahun 1975 menyertai ABIM dan 1981 menyertai PAS. Beliau bertanding dalam Pilihan raya umum Malaysia 1982 di Dun Penanti tetapi tewas.Sekali lagi tewas kepada rakan ABIM nya , Datuk Seri Anwar Ibrahim di parlimen Permatang Pauh dalam Pilihan raya umum Malaysia 1986. Apabila berhijrah ke Kelantan, beliau menang dalam Pilihan raya umum Malaysia 1990 di parlimen Nilam Puri. Sekali lagi menang di kerusi parlimen Kubang Kerian dalam Pilihan raya umum Malaysia 1995.

Dalam Pilihan raya umum Malaysia 1999 beliau menang di parlimen Kuala Kedah,Kedah. Tapi tewas lagi di Kuala Terengganu dalam Pilihan raya umum Malaysia 2008 kepada Timbalan Menteri Pelajaran, Datuk Razali Ismail dan nenek Maimun Yusuf (89 tahun) . Razali memperolehi 32,562, dengan majoriti 628 undi.Mohamad Sabu (31,934 undi) dan Maimun (685 undi).

Beliau bersama rakan-rakan Gerakan Harapan Baru menubuhkan Parti Amanah Negara selepas mengambil alih Parti Pekerja-Pekerja Malaysia. Seterusnya Parti Amanah Negara membentuk Pakatan Harapan bersama Parti Tindakan Demokratik (DAP) dan Parti Keadilan Rakyat (PKR).